Năm 166 TCN, quân Hung Nô xâm phạm vùng biên giới nhà Hán, đánh vào Tiêu Quan. Lý Quảng bèn xin gia nhập quân đội cùng đánh quân Hồ. Nhờ tài năng của mình, Lý Quảng ngay từ lúc đầu đã lập được nhiều công trạng nên được phong làm Lang trung lệnh,[3][4] sau thăng làm Võ kị thường thị, hưởng lương 800 hộc.[5] Hán Văn Đế cảm phục tài năng của ông, có lần đã bảo

Sang thời Hán Cảnh Đế, Lý Quảng được bổ nhiệm làm đô úy[6] quận Lũng Tây. Năm 154 TCN, khi bảy nước chư hầu tạo phản,[7][8][9][10] Lý Quảng đi theo đại tướng Chu Á Phu dẹp loạn, đánh bại liên quân Ngô Sở. Tuy nhiên do trong trận đánh này, Lý Quảng lại nhận ấn tướng quân của Lương Vương nên triều đình quyết định không thăng thưởng của ông, đổi sang làm thái thú quận Thượng Cốc[3][11][12] để chống Hung Nô. Một thời gian sau, do lời khuyên của Công Tôn Hồn Da nên Hán Cảnh Đế quyết định chuyển ông sang làm thái thú Thượng Quận.